人工智能与国际安全研究动态 | 第4期—北约军用人工智能：战略、应用与治理
编者按
为推进人工智能与国际安全领域的相关研究，清华大学战略与安全研究中心（CISS）组织研究团队定期跟踪最新国际研究动态，重点关注人工智能应用对国际安全带来的风险挑战，并针对人工智能安全领域国际动态、智库报告、学术论文等资料进行分析。本文是CISS推出的人工智能与国际安全研究动态第4期，主要聚焦北约军用人工智能战略设计、军事应用及其安全治理情况。
北约重视新兴和颠覆性技术（Emerging and disruptive technologies, EDT）所带来的机遇与风险，将推进此类技术作为其2030年议程的关键方面。同时，人工智能技术作为北约所认定的9项新兴和颠覆性技术[1]之一，也被视为确保同盟防御和行动的关键性技术。本文将聚焦战略设计、军事应用以及安全治理三个层面，分析北约军用人工智能现状及其进展。
一、北约军用人工智能战略设计
（一）人工智能战略的顶层布局
1.人工智能政策报告与白皮书
在北约正式推出其《人工智能战略》前，北约各机构就已采取多项实践、发布诸多相关文件，为北约最终汇聚各部门实践经验、集成各方治理意见而形成战略文件奠定基础。
在应用方面，2019年10月，北约议会科学与技术委员会（Science and Technology Committee of NATO Parliamentary Assembly）发布《人工智能：对北约的军事力量影响》报告，一方面提及当时正在开展人工智能相关事务的北约部门，包括北约科学与技术组织（The NATO Science and Technology Organization, STO）、盟军转型司令部（Allied Command Transformation, ACT）、北约通信与信息局（NATO Communications and Information Agency）、北约工业咨询小组（The NATO Industrial Advisory Group）等等，勾勒出北约人工智能应用前景的大致轮廓；另一方面提出了人工智能在军事战略层面带来的潜在挑战，包括降低战争门槛、加剧安全困境、极端化战略思维等。[2]
2020年3月，北约科学与技术组织发布《科技趋势：2020-2040》报告，正式提出大数据与高级分析技术、人工智能、自主性等共8项新兴和颠覆性技术（后增加为9项）。报告分别从防守方和攻击方出发，分析了人工智能对于交叉信号、弹道规划、防撞系统、蜂群作战、武器选择、反爆系统等多方面的军事作用，并提出人工智能是同盟国家面临的最大技术挑战，将在未来20年内发挥巨大影响。[3]
在北约各职能部门推进人工智能应用实践进程中，北约研究人员也已开始意识到人工智能治理与安全的重要性。早在2018年，北约法律事务中心就已提交《人工智能与权责机制》报告，指出北约缺乏对人工智能法律界定、约束框架的统一标准，由此要求北约建立明确问责制，赋予人工智能以“法律人格”。[4]2020年，北约新型安全挑战部创新单位（Innovation Unit of Emerging Security Challenges Division）发文阐述北约制定人工智能政策的努力，提出应对企业型人工智能、操作型人工智能、任务支持型人工智能三种类别的不同风险水平予以区分，动态地采用、负责任地使用人工智能。[5]
2.北约人工智能战略
2021年10月，北约国防部长会议通过北约首项人工智能战略，以支持同盟联合防务、危机管理以及合作安全的三大基础任务。该战略文件提出四方面目标，一是以负责任的态度开发与使用人工智能，维护同盟防御与安全，为北约和盟友发挥模范引领作用提供基础；二是在能力开发与交付中加速采用人工智能并将其纳入主流，加强同盟内的互操作性；三是保护和监管人工智能科技和创新能力，考虑相关安全政策，如负责任地使用的操作原则等；四是识别和保卫来自国家或非国家行为体因恶意使用人工智能而产生的威胁。鉴于北约本身军事同盟的性质及同盟基础任务，该战略旨在为人工智能等颠覆性技术加速应用于军事项目建立政治支持。
对于人工智能治理，北约人工智能战略的核心原则为“负责任使用”。在该战略中，北约盟国承诺在防务中负责任使用人工智能，并据此提出六点原则，即合法性原则、责任和问责原则、可解释性和可追溯性原则、可靠性原则、可治理原则以及偏见缓解原则。[6]
（二）落实部署的职能机构
目前，投资发展人工智能技术的北约机构众多，盟军转型司令部、北约咨询指控委员会（C3B）、北约科技与信息组织等均涵盖不同方面的研究和采用项目。
北约机构层面对于人工智能技术的职能机构部署基本遵循其对9项新兴和颠覆性技术的部门规划，其中北大西洋国防创新加速器、北约创新基金、北约新兴和颠覆性技术咨询小组和北约创新委员会及北约数据和人工智能审查委员会组成了最重要的四方面安排。[7]
1.技术支撑：北大西洋国防创新加速器
2021年，北约盟国领导人于布鲁塞尔峰会宣布启动国防创新加速器（Defence Innovation Accelerator for the North Atlantic, DIANA）。DIANA通过推出基于关键国防安全问题的“挑战计划”，寻求北约内部的最佳技术解决方案，并为中标者提供测试机会、可信赖融资、专家指导等资源，以促进跨大西洋盟国与学界、私营部门在关键技术方面的直接合作，最终提升互操作性，解决国防安全问题。
2.资金来源：北约创新基金
2021年的布鲁塞尔峰会中，北约启动了10亿欧元的北约创新基金，投资有助于国防和安全的军民两用技术，并推动与深度技术创新者更密切的合作。来自22个盟国的领导人在次年马德里峰会时签署承诺书，决定参与该项目。
3.政策研究：北约新兴和颠覆性技术小组、北约创新委员会
2020年7月，来自北约私营部门及学界共12名专家组成新兴和颠覆性技术小组，负责引领前沿研究，为北约新兴和颠覆性技术政策提供短期和长期建议。此外，由北约副秘书长担任主席、由盟国高级文职与军事领袖参与的北约创新委员会，则致力于研究、讨论和促进来自组织之外的新想法。
4.推广治理：北约数据和人工智能审查委员会
2022年10月，北约国防部长会议新成立北约数据和人工智能审查委员会（DARB），其首要任务是制定一项用户友好型的负责任人工智能（RAI）认证标准，包括质量控制与风险缓解在内，进而指导RAI在整个北约的实施、评估，并在盟国中进行推广。[8]
二、北约人工智能技术的军事应用
北约现有的人工智能军事应用开发主要集中于情报信息、自主化装备和系统及后勤保障和人员管理方面。
1.数据与情报信息分析
北约通信与信息局（NATO Communication and Information Agency）将来自此前任务和成员国的数据汇总，现已形成可供大数据分析的数据湖，并将所获数据投入其联合情报、监视和侦查系统（JISR）中。
2021年5月至6月，北约“春季风暴”演习在爱沙尼亚举行，期间英国军队首次使用人工智能引擎获取有关周边环境及地形地势的信息。通过自动化系统和智能分析，这一引擎能够快速处理海量复杂数据并反馈给终端用户，从而大大提高军队行动部署效率，优化指挥控制流程。[9]
美国防部于2017年4月所启动的“Maven”项目长期通过开发人工智能分析算法，将大量无人机所得视频数据进行较准确识别，增强和协助部署在海外战区的情报分析师。据称，2022年2月爆发的乌克兰危机已成为美国测试这一项目应用的试验田。美国国防部通过使用先进人工智能系统监督战场，收集和归档信号情报。据称，这些信息都将被用于训练算法，支持未来的决策。美国也已经与北约盟国建立起基于这种应用的网络武器和防御系统。[10]
2.无人载具系统
拥有一定自主能力的无人载具（UxVs）系统已经在军事应用方面有较长的发展历史，诸如无人机（UAV）、水下无人驾驶器（UUV）、无人水面载具（USV）及陆地无人驾驶器（UGV）等。这些自主平台自上世纪90年代末起已经在军事行动中得到了日益广泛的使用，最新的自主系统则逐渐用机器学习（ML）替代了原有的固定飞行路径设置。
空中力量方面，将人工智能系统应用到新一代飞行器研发中也是当下热潮之一。美国空军正在探索利用人工智能和自主系统协调F-35“闪电-II”第五代战机和无人战机的攻击行为，北约预计将在2030年之前装备450架该型号战机[11]，届时其将成为美国和北约联合空中力量的重要支柱。同时，在欧洲国家正着手开发的未来空战系统（FCAS）项目中，第六代战斗机和由人工智能网络连接的无人战机群之间的协作将成为新一代武器系统的重要支柱。[12]
海上力量方面，北约也已经开始探索无人系统、大数据和机器学习在侦测以及反潜艇中的应用。北约和其他非军事行为体在葡萄牙的牵头下分别于2019、2021和2022年开展了针对海上无人系统的演习（Exercise REPMUS），规模巨大，并集中展示了最新的海上无人系统技术。2022年的演习主要聚焦于：一是基于共同的无人系统指挥控制（C2）网络（岸基海上作战中心，MOC）进行海上可互操作性测试；二是水面、水下及水上的快速环境评估测试；三是反潜艇战试验；四是无人反鱼雷措施系统测试。通过这些测试，北约海事研究与试验中心集中展示并训练了盟军不同海上无人系统在海上情报搜集、鱼雷战、反潜艇战、水面战、作战人员保护等多方面实现多国联合作战的可互操作能力，同时也在多领域的无人系统指挥控制标准开发上取得明显进展。
3.后勤保障和人员管理
模拟神经网络等人工智能技术已经被西班牙海军[13]及法国空军[14]等北约国家军队应用于海军舰艇的预测性维护及国防采购中，与此同时部分国家也已经开始探索AI在军队人员管理与提升医疗保障中的可能应用。
三、北约军用人工智能治理
如上文所言，北约针对人工智能治理已提出了六项原则，并建立审查委员会以保障原则落实。与此同时，北约还和欧盟、联合国及亚太地区盟友在安全治理、可互操作性等问题上保持着密切对话与合作。
1.机制建设：北约数据和人工智能审查委员会
这一2022年10月新设立的委员会不仅将致力于在公众、创业者、操作终端用户以及国际社会间为负责任的国防创新建立互信，还将用融汇六项原则的统一治理标准和实践经验，指导北约机构和盟国在质量把控、风险缓解以及采用可信赖与可互操作AI方面的协调行动，并为各成员国提供交流平台。具体而言，委员会职能将集中于三方面：创建切实可行的“负责任人工智能”（RAI）工具包，包括提供一套标准合规评估流程，并为成员国在实践中落实相关标准提供信息共享等其他支持。[15]
2.盟友合作：美欧人工智能领域政策协调
美欧双方于2021年成立了美欧贸易和技术委员会（TTC），以加强在经贸、技术和安全领域的跨大西洋合作。在2021年和2022年的第一和第二次部长级会议后双方已经建立并持续完善TTC十个工作组的有关职能，其中首要的便是技术标准工作组。该工作组专门下设人工智能分支，重点关注可信赖人工智能的负责任管理，以及推动经济合作与发展组织（OECD）关于AI发展原则建议的落实和内化。[16]
在2022年12月第三次部长级会议后，美欧发布首份《可信赖人工智能和风险管理评估与测量工具联合路线图》，为双方在AI风险管理和可信赖AI领域的合作提供具体指导。根据路线图，双方将在推动术语共享、国际技术标准制定、开发可信赖AI和风险管理工具以及监督测量现存和潜在AI风险等方向增进协调。[17]另外，本次会议后发布的联合声明显示，美欧于5月提出的战略标准信息机制（SSI）也已建立，这将进一步优化双方在标准制定方面的协调进展。[18]
3.多边合作：北约—联合国致命性自主武器系统领域的新技术问题政府专家组
致命性自主武器系统（LAWS）安全治理方面，北约遵循“特定常规武器公约”（CCW）2019年缔约方会议所确认11项指导原则[19]，即承诺确保国际人道法适用于包括LAWS在内的所有武器系统，并致力于为有关方面处理致命自主武器系统中的新兴技术提供合适的指导框架。[20]同时，北约主要盟国作为该公约缔约方也参与了上述会议的政府专家组工作。北约还设置了专门协调相关国际法的部门——北约法律事务办公室（OLA），其职能主要是与包括国际人道法在内的有关人工智能发展的国际法机制进行协调，并保障北约各盟国在法律运用上的互操作性。[21]
撰稿：王叶湑、王星懿
编辑：孙成昊、郑乐锋
审核：肖茜、董汀
参考文献
[1] 9项技术分别为大数据与高级分析技术、人工智能、自主性、太空技术、高超音速（武器系统）、量子技术、生物科技与人类增强技术、新型材料与制造技术以及能源和推进技术。[2] Sub-Committee on Technology Trends and Security of Science and Technology Committee of NATO Parliamentary Assembly, Artificial Intelligence: Implications for NATO’s Armed Forces, October 13, 2019[3] NATO Science & Technology Organization, Science & Technology Trends 2020-2040: Exploring the S&T Edge, March 2020.[4] Hill, S., & Marsan, N. (2018). Artificial Intelligence and Accountability: A Multinational Legal Perspective. NATO Office of Legal Affairs. Retrieved from https://www.sto.nato.int/publications/STO%20Meeting%20Proceedings/STO-MP-IST-160/MP-IST-160-PP-4.pdf[5] Edward Hunter Christie, “Artificial Intelligence at NATO: dynamic adoption, responsible use”, NATO Review, https://www.nato.int/docu/review/articles/2020/11/24/artificial-intelligence-at-nato-dynamic-adoption-responsible-use/index.html, 访问日期：2023年1月1日。[6] North Atlantic Treaty Organization, Summary of the NATO Artificial Intelligence Strategy, October 22, 2021, https://www.nato.int/cps/en/natohq/official_texts_187617.htm.[7] “Emerging and disruptive technologies,” North Atlantic Treaty Organization, https://www.nato.int/cps/en/natohq/topics_184303.htm, 访问日期：2022年12月29日。[8] “Summary of NATO’s Data Exploitation Framework Strategic Plan,” North Atlantic Treaty Organization, October 13, 2022, https://www.nato.int/cps/en/natohq/official_texts_209999.htm?selectedLocale=en, 访问日期：2023年1月1日。[9] “Artificial Intelligence Used on Army Operation for the First Time”, Ministry of Defence, Government of UK, 5 Jul, 2021, https://www.gov.uk/government/news/artificial-intelligence-used-on-army-operation-for-the-first-time., 访问日期：2022年12月30日。[10] “NATO’s Artificial Intelligence Push and its Military Implications,” The Indian Eye, May 29, 2022, https://theindianeye.com/2022/05/29/natos-artificial-intelligence-push-and-its-military-implications/, 访问日期：2023年1月2日。[11] “Fact Sheet: Exercise ERPMUS 22”, North Atlantic Treaty Organization, Sep, 2022, https://www.nato.int/nato_static_fl2014/assets/pdf/2022/9/pdf/220915-factsheet-exercise-repmus.pdf, 访问日期：2023年1月5日；“The Secretary General’s Annual Report 2021”, North Atlantic Treaty Organization, 31 Mar, 2022, https://www.nato.int/nato_static_fl2014/assets/pdf/2022/3/pdf/sgar21-en.pdf, 访问日期：2023年1月5日。[12] Brooks Tigner, “Allies Sign Off on NATO Next-Generation Rotorcraft Capability Concept Phase”, Janes Intara, 16 Jun, 2022, https://www.janes.com/defence-news/news-detail/allies-sign-off-on-nato-next-generation-rotorcraft-capability-concept-phase, 访问日期：2023年1月6日。 [13] “Indra Researches the Use of Neural Networks to Enhance the Effectiveness of the Spanish Navy”, Indra, 29 Jan, 2019, https://www.indracompany.com/en/noticia/indra-researches-use-neural-networks-enhance-effectiveness-spanish-navy, 访问日期：2023年1月6日。[14] “Thales to Develop New Connected for Rafale F4 Standard”, THALES, 18 Jan, 2019, https://www.thalesgroup.com/en/group/press-release/thales-develop-new-connected-sensors-rafale-f4-standard, 访问日期：2023年1月6日。 [15] NATO’s Data and Artificial Review Board, North Atlantic Treaty Organization, 17 Oct, 2022, https://www.nato.int/cps/en/natohq/official_texts_208374.htm?selectedLocale=en, 访问日期：2022年12月31日。 [16] “US-EU Joint Statement of the Trade and Technology Council”, The White House, May 16, 2022, https://www.whitehouse.gov/wp-content/uploads/2022/05/TTC-US-text-Final-May-14.pdf.[17] “TTC Joint Roadmap on Evaluation and Measurement Tools for Trustworthy AI and Risk Management”, The National Institute of Standards and Technology, December 1, 2022,https://www.nist.gov/system/files/documents/2022/12/04/Joint_TTC_Roadmap_Dec2022_Final.pdf. [18] “US-EU Joint Statement of the Trade and Technology Council”, The White House, December 5, 2022, https://www.whitehouse.gov/briefing-room/statements-releases/2022/12/05/u-s-eu-joint-statement-of-the-trade-and-technology-council/ [19] “Meeting of the High Contracting Parties to the Convention on Prohibitions or Restrictions on the Use of Certain Conventional Weapons Which May Be Deemed to Be Excessively Injurious or to Have Indiscriminate Effects(CCW/MSP/2019/9), Annex III”, 13 Dec 2019, https://documents-dds-ny.un.org/doc/UNDOC/GEN/G19/343/63/PDF/G1934363.pdf?OpenElement, 访问日期：2022年12月29日。 [20] “Meeting of the High Contracting Parties to the Convention on Prohibitions or Restrictions on the Use of Certain Conventional Weapons Which May Be Deemed to Be Excessively Injurious or to Have Indiscriminate Effects(CCW/MSP/2019/9), Annex III”, 13 Dec 2019, https://documents-dds-ny.un.org/doc/UNDOC/GEN/G19/343/63/PDF/G1934363.pdf?OpenElement, 访问日期：2022年12月29日。 [21] Stanley-Lockman, Zoe, Lena Trabucco, ‘NATO’s Role in Responsible AI Governance in Military Affairs’, in Justin B. Bullock and others(eds), The Oxford Handbook of AI Governance(online edn, Oxford Academic, 14, Feb. 2022),https://doi.org/10.1093/oxfordhb/9780197579329.013.69.
人工智能与国际安全研究动态
人工智能与国际安全研究动态 | 第3期—俄罗斯军用人工智能：战略、应用与治理
人工智能与国际安全研究动态 | 第2期—美国《人工智能权利法案蓝图》评析
CISS推出第1期人工智能与国际安全研究动态专报